Trường Trung học Phổ thông Chuyên Ngoại ngữ ra đời năm 1969 theo quyết định số 488/KH của Thủ tướng Phạm Văn Đồng, với nhiệm vụ đào tạo học sinh giỏi ngoại ngữ trên cơ sở vững vàng các bộ môn văn hoá phổ thông để tiếp tục đào tạo thành những cán bộ giỏi ngoại ngữ cho các lĩnh vực văn hoá và kinh tế sau này. Học sinh sau khi học xong lớp 7 (hệ 10 năm) được tuyển chọn thông qua lý lịch và thi tuyển các môn Toán, Văn, Năng khiếu ngôn ngữ. Trường trực thuộc Đại học Sư phạm Ngoại ngữ, hay còn gọi là Đại học Sư phạm 3, phân biệt với Đại học Sư phạm 2: Toán-Lý-Hóa và Đại học Sư phạm 1: Văn-Sử-Địa. Do những yêu cầu hồi đó, học sinh của trường được coi như là cán bộ nhà nước: có học bổng và phiếu E, với mức lương bao cấp là 18 kg gạo/tháng.

Trong năm học 1969–1970, trường trải qua nhiều nơi sơ tán (Thọ Trai, Hải Hưng). Bất chấp khó khăn của Chiến tranh Việt Nam, trường đã hoàn thành nhiệm vụ đào tạo học sinh phổ thông cho trường Ðại học Sư phạm Ngoại ngữ (nay là Đại học Ngoại ngữ, Đại học Quốc gia Hà Nội), đào tạo nên những cán bộ giảng dạy cho các trường đại học. Từ đầu năm 1973, trường chuyển về Km 2 Cầu Giấy, cũng là địa điểm của trường cho đến giờ. Các giáo viên lãnh đạo ban đầu của Khoa Anh văn là thầy Đặng Chấn Liêu và thầy Dương Ngọc Cơ; khoa Nga văn là các chuyên gia Nga và thầy Ca Sơn; khoa Pháp văn là cô Monique; khoa Trung văn là các chuyên gia Trung Quốc.

Hiện nay, trường có nhiệm vụ đào tạo học sinh năng khiếu ngoại ngữ và cung cấp học sinh chất lượng cao cho trường Ðại học Ngoại ngữ, Đại học Quốc gia Hà Nội và các trường đại học khác.

Ngày 9 tháng 11 năm 2019, trường tổ chức Lễ kỷ niệm 50 năm thành lập qua chuỗi sự kiện do nhà trường tổ chức với Ngày hội Văn hóa chuyên Ngoại ngữ cũng như đêm Gala 50 năm chuyên Ngoại ngữ tại Trung tâm Hội nghị Quốc gia Hà Nội.[4][5]